Reflections on glossy objects contain valuable and hidden information about the surrounding environment. By converting these objects into cameras, we can unlock exciting applications, including imaging beyond the camera's field-of-view and from seemingly impossible vantage points, e.g. from reflections on the human eye. However, this task is challenging because reflections depend jointly on object geometry, material properties, the 3D environment, and the observer viewing direction. Our approach converts glossy objects with unknown geometry into radiance-field cameras to image the world from the object's perspective. Our key insight is to convert the object surface into a virtual sensor that captures cast reflections as a 2D projection of the 5D environment radiance field visible to the object. We show that recovering the environment radiance fields enables depth and radiance estimation from the object to its surroundings in addition to beyond field-of-view novel-view synthesis, i.e. rendering of novel views that are only directly-visible to the glossy object present in the scene, but not the observer. Moreover, using the radiance field we can image around occluders caused by close-by objects in the scene. Our method is trained end-to-end on multi-view images of the object and jointly estimates object geometry, diffuse radiance, and the 5D environment radiance field.
translated by 谷歌翻译
Privacy-preserving machine learning has become a key conundrum for multi-party artificial intelligence. Federated learning (FL) and Split Learning (SL) are two frameworks that enable collaborative learning while keeping the data private (on device). In FL, each data holder trains a model locally and releases it to a central server for aggregation. In SL, the clients must release individual cut-layer activations (smashed data) to the server and wait for its response (during both inference and back propagation). While relevant in several settings, both of these schemes have a high communication cost, rely on server-level computation algorithms and do not allow for tunable levels of collaboration. In this work, we present a novel approach for privacy-preserving machine learning, where the clients collaborate via online knowledge distillation using a contrastive loss (contrastive w.r.t. the labels). The goal is to ensure that the participants learn similar features on similar classes without sharing their input data. To do so, each client releases averaged last hidden layer activations of similar labels to a central server that only acts as a relay (i.e., is not involved in the training or aggregation of the models). Then, the clients download these last layer activations (feature representations) of the ensemble of users and distill their knowledge in their personal model using a contrastive objective. For cross-device applications (i.e., small local datasets and limited computational capacity), this approach increases the utility of the models compared to independent learning and other federated knowledge distillation (FD) schemes, is communication efficient and is scalable with the number of clients. We prove theoretically that our framework is well-posed, and we benchmark its performance against standard FD and FL on various datasets using different model architectures.
translated by 谷歌翻译
我们提出了使用镜面多声激光雷达返回的方法来检测和映射镜面表面,这些表面可能是依赖直接单刻钟返回的常规LIDAR系统看不见的。我们得出将这些多声音返回的时间和到达的表达式与镜面表面上的散射点相关联,然后使用这些表达式来制定技术以检索镜面几何时,当场景被单光束扫描或照亮时带有多光束闪光灯。我们还考虑了透明的镜面表面的特殊情况,可以将表面反射与散布在表面后面的物体上的光混合在一起。
translated by 谷歌翻译
我们研究数据所有者/卖方的数据搜索者/买家的数据。假设特定的实用程序指标(例如验证集中的测试准确性)在实践中可能不存在,则通常针对特定任务进行数据估值。在这项工作中,我们专注于任务不足的数据评估,而无需任何验证要求。数据购买者可以访问有限数量的数据(可以公开使用),并从数据销售商那里寻求更多数据示例。我们将问题提出,以估计卖方在买方可用的基线数据方面数据的统计属性差异。我们通过衡量买方数据的多样性和相关性来捕获这些统计差异;我们在不要求原始数据的情况下向卖方估算这些措施。我们通过提出的方法设计查询,以使卖方对买方的原始数据视而不见,并且不知道对查询的响应进行响应,以获得多样性和相关性权衡的期望结果。我们将通过对真实的广泛实验进行展示。拟议估计值的表格和图像数据集捕获了买方卖方数据的多样性和相关性。
translated by 谷歌翻译
机械模拟器是流行病学的必不可少的工具,可以在不同条件下探索复杂,动态感染的行为并导航不确定的环境。基于ODE的模型是能够快速模拟且可实现基于梯度的优化的主要范式,但可以简化有关人群同质性的假设。基于代理的模型(ABM)是一种越来越流行的替代范式,可以代表接触相互作用的异质性,并具有颗粒状细节和个人行为的代理。但是,常规的ABM框架没有可区分的,并且在可伸缩性方面提出了挑战。因此,将它们连接到辅助数据源是非平凡的。在本文中,我们介绍了GradABM,这是ABMS的新型可扩展,快速和可区分的设计。 GradABM在商品硬件上几秒钟内运行模拟,并启用快速前进和可区分的反向模拟。这使得可以与深度神经网络合并并无缝整合异质数据源以帮助校准,预测和政策评估。我们通过对实际Covid-19和流感数据集进行了广泛的实验来证明GradABM的功效。我们很乐观,这项工作将使ABM和AI社区更加紧密。
translated by 谷歌翻译
我们介绍了$ \ pi $ -test,这是一种用于测试跨多方数据分布的数据之间的统计独立性的隐私保护算法。我们的算法依赖于私人估计数据集之间的距离相关性,这是SZ \'ekely等人中引入的独立性的定量度量。[2007]。我们在差异私有测试的实用性上建立了加法和乘法误差界,我们相信在涉及敏感数据的各种分布式假设测试设置中,我们会发现应用程序。
translated by 谷歌翻译
本文为视觉变压器(VIT)体系结构提供了分布式学习解决方案。与卷积神经网络(CNN)架构相比,VIT通常具有较大的模型尺寸,并且计算昂贵,从而使联合学习(FL)不适合使用。拆分学习(SL)可以通过分裂模型并在拆分层上传达隐藏的表示形式(也称为粉碎的数据)来避开此问题。尽管如此,VIT的粉碎数据与输入数据一样大,在违反数据隐私时否定了SL的通信效率。为了解决这些问题,我们通过随机打孔和压缩原始粉碎的数据来提出一种新形式的切割数据。利用这一点,我们为VIT,CUTMIXSL开发了一个新颖的SL框架,并传达了切割的数据。 cutmixsl不仅降低了通信成本和隐私泄漏,而且固有地涉及cutmix数据增强,从而提高了准确性和可扩展性。模拟证实了cutmixsl的表现优于平行的SL等基线,并将其与SL集成在一起。
translated by 谷歌翻译
我们提出了一种学习神经阴影领域的方法,这些方法是神经场景表示,仅从场景中的阴影中学到。虽然传统的形状 - 从阴影(SFS)算法从阴影重建几何形状,但他们采用固定的扫描设置,无法推广到复杂的场景。另一方面,神经渲染算法依赖于RGB图像之间的光度一致性,但在很大程度上忽略了物理线索,例如阴影,这些暗示已被证明提供了有关场景的宝贵信息。我们观察到,阴影是一种强大的提示,可以限制神经场景表示以学习SF,甚至超越nerf来重建其他隐藏的几何形状。我们提出了一种以图形为灵感的可区分方法,以通过体积渲染来渲染准确的阴影,预测可以将其与地面真相阴影相提并论的阴影图。即使只有二进制阴影图,我们也表明神经渲染可以定位对象并估算粗几何形状。我们的方法表明,图像中的稀疏提示可用于使用可区分的体积渲染来估计几何形状。此外,我们的框架是高度概括的,可以与现有的3D重建技术一起工作,否则仅使用光度一致性。
translated by 谷歌翻译
近年来,与私人数据的分散学习领域有很大进展。联合学习(FL)和分裂学习(SL)是两个拥有其优点和缺点的矛头,并分别适用于许多用户客户和大型型号。为了享受这两个好处,斯普利特这样的混合方法已经出现了迟到,但他们的基本面仍然是虚幻的。在这项工作中,我们首先识别SL的基本瓶颈,从而提出可伸缩的SL框架,被卷曲的SGLR。 SGLR下的服务器在分裂层上广播了平均的公共梯度,在没有横跨客户端的情况下仿真FL而没有任何额外的通信。同时,SGLR将学习率分解为服务器端和客户端速率,并单独调整它们以支持许多客户端。仿真结果证实了SGLR实现比其他基线SL方法更高的精度,包括分裂,这甚至是与耗能更高的能量和通信成本的影响。作为次要结果,我们通过使用SLGR通过基线通过相互信息观察更大的敏感信息泄漏。
translated by 谷歌翻译
分布式深度学习框架,如联合学习(FL)及其变体都是在广泛的Web客户端和移动/ IOT设备上实现个性化体验。然而,由于模型参数的爆炸增长(例如,十亿参数模型),基于FL的框架受到客户的计算资源的限制。拆分学习(SL),最近的框架,通过拆分客户端和服务器之间的模型培训来减少客户端计算负载。这种灵活性对于低计算设置非常有用,但通常以带宽消耗的增加成本而实现,并且可能导致次优化会聚,尤其是当客户数据异构时。在这项工作中,我们介绍了adasplit,通过降低带宽消耗并提高异构客户端的性能,使得能够将SL有效地缩放到低资源场景。为了捕获和基准的分布式深度学习的多维性质,我们还介绍了C3分数,是评估资源预算下的性能。我们通过与强大联邦和分裂学习基线的大量实验比较进行了大量实验比较,验证了adasplit在有限的资源下的有效性。我们还展示了adasplit中关键设计选择的敏感性分析,该选择验证了adasplit在可变资源预算中提供适应性权衡的能力。
translated by 谷歌翻译